“收拾”网络霸凌准确率90%！算法已经下手了
网络霸凌近几年广受关注。它可以发生在你玩手机、或者玩平板和电脑的时候，也可以通过文本信息、社交媒体等方式让你“被迫”成为其中的一份子，包括发送、转发、分享一些错误的、消极的、有伤害的或者刻薄的针对其他人的内容，有时还会涉及到私人信息泄露，甚至是滋生违法或者犯罪的行为。
图片来源：Pixabay
霸凌极具攻击性，戴上网络的“面具”，更是让这一现象频发。一切始于互联网和计算机的发展，那么同样以计算机科学的方式应对这种现象会不会有效杜绝该类现象呢？
宾汉姆顿大学（Binghamton University）教师在内的一组研究人员近期开发了一系列可以在Twitter上成功识别霸凌者和攻击者的机器学习算法，其准确率高达90％。
目前，能用于检测社交媒体上的有害行为的有效工具很少，主要原因是因为这种行为本质上通常是含糊不清，较多情况是以肤浅的评论和批评来表现。为了解决这一问题，由宾汉姆顿大学计算机科学家Jeremy Blackburn先生组成的一个研究小组分析了“辱骂型”Twitter用户所表现出的行为模式以及他们与其他类型Twitter用户的差异。
“我们建立了一个爬虫程序，通过该程序运用各种机制从Twitter收集数据，”Blackburn先生说：“我们收集了Twitter用户的个人资料以及（社交）网络相关内容的推文，比如，他们关注的人以及关注这些用户的人群类别。”
然后，研究人员对Twitter用户发布的推文本身进行了自然语言处理和情感分析，并对用户之间的连接进行了各种社交网络分析。研究人员由此开发了可以分类成两种特定类型的攻击性在线行为，即网络欺凌和网络攻击的算法。这些算法能够以90％的准确度识别Twitter上的“辱骂型”用户。他们通常在Twitter上具有骚扰行为，比如，那些向用户发送死亡威胁或向其他用户发表种族主义言论、不实言论等。
图片来源：Pixabay
简而言之，人工智能算法可以通过越来越多的例子来学习如何通过权衡某些特征来判断霸凌者与典型用户之间的区别。
同时，Blackburn先生也表示，虽然这项研究可以帮助缓解网络欺凌，但这只是“万里长征中的第一步”。
网络安全最大的问题之一就是正在对人类造成的伤害，并且这些伤害非常难以“撤销”。这项研究表明，机器学习可以用来自动检测网络欺诈用户，从而可以帮助Twitter和其他社交媒体平台消除有问题的用户。但是，这样的系统最终是被动的，它本身并不能防止欺凌行动，它只是确定了欺凌行为的发生。同时，另外一点让人“头疼”的是，即使霸凌者的账户与他们以前的所有攻击性言论都被删除，受害者仍潜在受到了影响，这对于网络霸凌的受害者来说，其心理上的“创伤”是难以主动消除的。
为了解决这样的难题，Blackburn先生和他的团队目前正在探索一种更为积极的缓解技术来应对网络骚扰活动。
网络欺凌不是小事，它对个体产生的影响也并不亚于肢体欺凌。未来期望能有更多的新方式出现，使这种现象慢慢被杜绝，还社媒“一片净地”。
题图来源：Pixabay
版权说明：欢迎个人转发至朋友圈，谢绝媒体或机构未经授权以任何形式转载至其他平台。转载授权请在「药明康德AI」微信公众号后台回复“转载”，获取转载须知。
点击图片阅读：AI有望独当一面，但相比医生人文关怀还是空白
点击图片阅读：良药不苦口，3D打印技术打造出个性化“糖果药丸”
点击图片阅读：谷歌、亚马逊、Facebook纷纷挑战蛋白质折叠问题，布局新药研发